控制混淆因素之外的考虑¶
良好的控制¶
我们已经看到向我们的回归模型添加额外的控制变量可以帮助识别因果效应。如果控制变量本身是一个混淆因素，将它添加到模型中不仅很好，而且是一项要求。当粗心大意的人看到这一点时，自然的反应是将他能测量的任何东西都扔进模型中。在当今的大数据世界中，这很容易超过 1000 个变量。事实证明，这不仅是不必要的，而且可能不利于因果识别。我们现在将注意力转向非混淆因素的控制。首先，让我们来看看几个不错的案例。然后，我们将深入研究有问题控制案例。
案例1¶
假设你是一家金融科技公司债务催收团队的数据科学家。你的下一个任务是弄清楚发送电子邮件要求对人们协商债务的影响。响应变量是逾期客户的付款金额。
为了回答这个问题，你的团队从逾期客户群中随机选择了 5000 名客户进行随机测试。对于每个客户，抛硬币，如果是正面，客户就会收到电子邮件；否则，客户为纳入对照组。通过该实验，您希望了解电子邮件催收所能产生的额外收入。
由于数据是随机的，简单地用均值的差异估计平均干预效果。换句话说，除了随机化之外，没有什么可以引起干预，因此潜在的结果与干预无关：$(Y_0，Y_1 ) \perp T $。
$ ATE = E[Y_i|T_i=1] - E[Y_i|T_i=0] $
由于你也希望在估计值周围放置置信区间，因此使用带置信区间地线性回归如下图所示：
可悲的是，估计的ATE为-0.62，这很奇怪。对于支付延迟的客户，发送电子邮件催收反而使得债务的偿付低于平均水平？尽管如此，P值仍然如此之高，以至于这可能没有任何意义。这该怎么办呢？
请注意你的数据包含其他一些有趣的列。例如，"credit_limit"表示客户在支付延迟之前的信用额度。"risk_score"对应于客户在发送电子邮件之前的估计风险。信用额度和风险可能是很好的付款预测因素，但这有什么用呢？
首先，让我们了解为什么即使存在差异，我们也无法在干预中找到统计显著性。可能就像在这种情况下一样，干预对结果的影响很小。仔细想想，让人们偿还债务的原因，总的来说，是收款部门无法控制的因素。人们偿还债务是因为他们找到了一份新工作，管理他们的财务，收入等等。在统计方面，我们可以说付款的可变性更多地由电子邮件以外的其他因素解释。
为了直观地理解它，我们可以根据电子邮件这个干预变量绘制付款。我还用红色绘制了上面模型的拟合线。为了帮助可视化，在电子邮件变量中添加了一点噪音。
我们可以看到单个干预组中的付款差异有多大。从视觉上看，看起来两组都从400以下到1000。如果电子邮件的影响是5.00或10.00，难怪很难在所有可变性中找到它。
幸运的是，回归可以帮助我们降低这种方差。诀窍是使用其他控制变量。如果变量是结果的良好预测因子，它将解释其许多差异。如果风险和信用额度是付款的良好预测因素，我们可以控制它们，以便更容易地发现电子邮件对付款的影响。向回归添加额外的变量意味着在查看干预时保持它们不变。因此，推理是，如果我们看一下类似的风险水平和信用额度，响应变量"付款"的方差应该更小。或者，换句话说，如果风险和信用额度可以很好地预测付款，则具有相似风险和信用额度的客户也应该具有相似的付款水平，因此差异较小。
为了证明这一点，让我们采用将回归分为2个步骤，从而将上述因素影响逐一剔除。首先，我们将使用额外的控制变量(信用额度和风险评分),对干预变量(发送电子邮件)，以及结果变量(付款)，分别进行回归。其次，我们将在步骤1中获得的付款回归模型的残差和干预变量回归模型的残差进行回归。
这将降低因变量的方差。通过对信用额度和风险的回归支付并获得此模型的残差，我们正在创建一个新的因变量，其可变性比原始变量小得多。最后一个模型还发现了具有有效标准误差估计值的 ATE。
Payments Variance 10807.61241599994
Payments Residual Variance 5652.453558466197
Email Variance 0.24991536000001294
Email Residual Variance 0.24918421069820038请注意付款的差异如何从 10807 变为 5652。一旦我们控制了风险和信用额度，我们已经将其降低了近一半。另请注意，我们没有设法减少处理电子邮件的可变性。这是有道理的，因为风险和信用额度不能预测电子邮件（根据随机性的定义，什么都不可以预测）。
现在，我们看到一些更合理的东西。这一新的估计告诉我们，我们应该期望收到电子邮件的客户平均比对照组多支付4.4。现在，此估计值在统计上与零不同。我们还可以想象每个对照组中的方差现在如何降低。
这样做是出于原理解释地目的。在实践中，只需将控制变量与处理变量一起添加到回归模型中，估计值将完全相同。
总而言之，每当我们有控制变量可以很好地预测结果时，即使它不是混杂因素，将其添加到我们的模型中也是一个好主意。它有助于降低我们治疗效果估计的方差。这是一张因果图：
案例2¶
作为第二个启发用的示例，让我们考虑一个2家医院都在进行的药物测试场景。他们都在对一种治疗某种疾病的新药进行随机试验。感兴趣的结果是住院天数。如果治疗有效，它将减少患者在医院停留的天数。对于其中一家医院，有关随机治疗的策略是将其给予90%的患者，而10%的患者接受安慰剂。另一家医院有不同的策略：它随机给10%的患者提供药物，90%的患者服用安慰剂。您还被告知，提供90%的真正药物和10%安慰剂的医院通常会得到更严重的疾病病例进行治疗。
由于正在处理的数据是随机的，因此可以简单地对治疗结果进行回归。
但是你会发现一些违反直觉的结果。处理为何会增加住院天数？答案在于我们正在运行2个不同的实验。严重程度与在医院的天数较多呈正相关，并且由于病例较重的医院也给予更多的药物，因此药物与在医院的天数呈正相关。当我们一起看两家医院时，我们有 $E[Y_0|T=0]>E[Y_0|T=1]$ ，也就是说，平均而言，未治疗者的潜在结果高于接受治疗者，因为在病情较轻的医院中，未处理的病例较多。换句话说，严重程度起到了混杂因素的作用，决定了患者去的医院，从而决定了接受药物的可能性。
有两种方法可以解决这个问题。第一个破坏了使用两家医院数据的目的，即简单地单独查看每家医院的ATE。
第一家医院
第二家医院
在本例中，我们确实得到了 ATE 的直观结果。看起来现在这种药物实际上正在降低在医院的天数。但是，由于我们单独查看每家医院，因此没有足够的数据点。因此，我们无法找到具有统计学意义的结果。
另一种利用回归的方法则是通过将疾病严重程度这个混淆变量包含在模型中来控制其影响。
接下来出现的问题是，我们是否也应该将医院纳入模型？毕竟，我们知道医院直接影响治疗，但是一旦我们控制了严重程度，医院就不再与住院天数的结果相关。我们知道，要成为混淆变量，改变量必须同时引起治疗和结果。在我们这种情况下，我们有一个仅导致治疗的变量。
但也许控制它会降低方差，对吧？好吧，又不是真的。为了让控制变量能降低方差，它必须是结果的良好预测因子，而不是治疗的预测因子，这里的情况就是如此。
不过，我们可能还是想控制它。毕竟也没什么损失...真是这样吗？
令人惊讶的是，它会带来不对的结果！
在严重性之上添加医院作为对照，为我们的 ATE 估计器引入了更多差异。怎么可能？答案在于回归系数标准误的公式。
$ \hat{\sigma}^2 = \dfrac{1}{n-2} \sum( y_i - \hat{y}_i )^2 $
$ \text{Var}(\hat{\beta}_2) = \dfrac{\sigma^2}{\sum(x_i - \bar{x})^2} $
从这个公式可以看出，标准误差与变量$X$的方差成反比。这意味着，如果 $X$ 变化不大，则很难估计其对结果的影响。这也具有直观意义。把它发挥到极致，假装你想估计一种药物的效果，所以你对 10000 人进行了测试，但只有 1 人得到了治疗。这将使找到 ATE 变得非常困难，我们将不得不依靠将一个人与其他人进行比较。另一种说法是，我们需要在治疗中进行很多可变性，以便更容易发现其影响。
至于为什么在模型中包括医院会增加我们估计的误差，这是因为它是治疗而不是结果的良好预测指标（一旦我们控制了严重程度）。所以，通过预测治疗，它有效地使它的方差更低！我们这里也可以通过将上面的回归划分为 2 个步骤的方式来看清这一点。
所以最重要的是，我们应该添加与治疗和结果（混杂因素）相关的控制，如上面模型中的严重程度。 我们还应该添加可以很好地预测结果的控制，即使它们不是混淆因子，因为它们降低了我们估计的方差。 但是，我们不应该添加只是治疗的良好预测因子的对照，因为它们会增加我们估计的方差。
这是一张用因果图说明这种情况的图片。
不良控制 - 选择偏差¶
让我们回到债务催收电子邮件的案例。 请记住，电子邮件是随机分配给客户的。 我们已经解释了什么是 信用额度 和 风险分 。 现在，让我们看看剩下的变量。 打开 是客户是否打开电子邮件的虚拟变量。 如果客户在收到电子邮件后联系收款部门协商他们的债务，支付协议 是另一个虚拟变量。 您认为以下哪个模型更合适？ 第一个是带有处理变量加上 信用额度 和 风险分 的模型； 第二个添加了 打开 和 支付协议 虚拟变量。
虽然第一个模型发现电子邮件的统计显着结果，但第二个模型没有。但也许第二个是正确的模型并且对电子邮件没有影响。毕竟，这个模型控制的因素更多，所以它应该更健壮吧？现在您可能知道情况并非如此。剩下的就是弄清楚是什么。
我们知道我们必须添加混淆变量。导致治疗和结果的变量。我们也知道添加能够很好地预测结果的控制变量是一个好主意。这是非必需的，但很值得做的事。我们也知道添加仅预测治疗的控制变量是一个坏主意。同样，这不是致命的问题，但最好避免。那么打开和支付协议是怎样的控制变量呢？事实证明，它们都不是上述情况。
如果你仔细想想，打开和支付协议肯定与电子邮件相关。毕竟，如果您没有收到电子邮件，您将无法打开它，而且我们还说过，该协议仅考虑在电子邮件发送后发生的重新谈判。但是他们不会产生电子邮件！相反，它们是由它引起的！
每当我需要了解我正在处理的变量类型时，我总是喜欢考虑它们的因果图。让我们在这里做这些：
我们知道没有什么会导致电子邮件，因为它是随机设计的。我们知道（或者至少我们有充分的理由相信）信用额度和风险会导致付款。我们还认为电子邮件会导致付款。至于打开，我们认为它确实引起了付款。直觉上，打开催收电子邮件的人更愿意谈判和偿还债务。我们还认为，打开会导致达成协议，其原因与导致付款的原因相同。此外，我们知道“opened”是由电子邮件引起的，我们有理由相信不同风险和信用额度的人对电子邮件的打开率不同，因此信用额度和风险也会导致打开。至于协议，我们也认为是打开造成的。如果我们考虑支付响应变量，我们可以认为是漏斗的结果：
$ 电子邮件 -> 打开 -> 协议 -> 付款 $
我们也认为不同程度的风险和线路有不同的达成一致的倾向，所以我们将它们标记为也引起一致。至于电子邮件和协议，我们可以说有些人只是阅读了电子邮件的主题，这使他们更有可能达成协议。关键是电子邮件也可以在不通过 打开 的情况下达成一致。
我们在这张图中注意到，打开和协议都在从电子邮件到付款的因果路径中。所以，如果我们用回归来控制它们，我们会说“这是电子邮件的效果，同时保持打开和支付协议 不变”。然而，两者都是电子邮件因果效应的一部分，所以我们不想固定它们。相反，我们可以争辩说电子邮件增加付款正是因为它提高了协议率。如果我们修复了这些变量，我们就会从电子邮件变量中消除一些真正的影响。
有了潜在的结果符号，我们可以说，由于随机化$E[Y_0|T=0] = E[Y_0|T=1]$。然而，即使是随机化，当我们控制一致性时，治疗和控制也不再具有可比性。事实上，通过一些直观的思考，我们甚至可以猜测它们的不同之处：
$ E[Y_0|T=0，协议=0] > E[Y_0|T=1，协议=0] $
$ E[Y_0|T=0, 协议=1] > E[Y_0|T=1, 协议=1] $
第一个等式明确表明，我们认为没有电子邮件和协议的人比有电子邮件和没有协议的人更好。那是因为，如果治疗有积极的效果，那些没有达成协议即使在收到电子邮件之后可能比那些也没有达成协议但也没有达成协议的人在付款方面更糟糕没有得到电子邮件的额外奖励。至于第二个等式，那些即使没有接受治疗也同意的人可能比那些同意但有电子邮件额外激励的人要好。
当您第一次阅读它时（这是给我的），这可能会非常令人困惑，但请确保您理解它。如有必要，请再次阅读。然后，可以对打开的变量进行类似的推理。尝试自己制作。
这种偏见是如此普遍，它有自己的名字。混杂是由于无法控制一个共同原因而产生的偏差，选择偏差是指我们控制一个共同的结果或从原因到结果的路径之间的变量。 根据经验，始终包括混杂因素和可以很好地预测模型中 $Y$ 的变量。始终排除仅 $T$、治疗和结果之间的中介或治疗和结果的共同影响的良好预测变量的变量。
选择偏差是如此普遍，以至于即使是随机化也无法解决它。更好的是，它经常被不明智的人引入，即使是在随机数据中！发现和避免选择偏差需要更多的练习而不是技巧。通常，它们出现在一些所谓的聪明想法之下，使其更难被发现。以下是我遇到的一些选择偏向的例子：
1. 在尝试估计收款策略对付款的影响时，添加用于支付全部债务的虚拟变量。
2. 在尝试估计教育对收入的影响时控制白领和蓝领工作
3. 估计利率对贷款久期影响时的转换控制
4. 在估计孩子对婚外情的影响时控制婚姻幸福
5. 将支付建模 E[Payments] 分解为一个预测是否会发生支付的二元模型和另一个预测会发生多少支付的模型：E[Payments|Payments>0]*P(Payments>0)
所有这些想法值得注意的是它们听起来多么合理。 选择偏差常常如此。 让这成为一个警告。 事实上，我自己也曾多次掉入上面的陷阱，我才知道它们有多糟糕。 特别是最后一个，值得进一步解释，因为它看起来很聪明，让很多数据科学家措手不及。 它是如此普遍以至于它有自己的名字：The Bad COP！
糟糕的 COP¶
情况是这样的。 您有一个想要预测的连续变量，但其分布在零时被过度表示。 例如，如果您想对消费者支出进行建模，您将得到类似伽马分布的东西，但有很多零。
当数据科学家看到这一点时，他脑海中浮现的第一个想法是将建模分解为 2 个步骤。首先是参与度，即$Y > 0$的概率。在我们的支出示例中，这将建模客户是否决定支出。第二部分为那些决定参与的人建模 $Y$。它是正数条件效应。在我们的案例中，这将是客户在决定要花费任何东西后花费的金额。如果我们想估计处理 $T$ 对支出的影响，它看起来像这样：
$ E[Y_i|T_i] = E[Y_i|Y_i>0, T_i]P(Y_i>0|T_i) $
参与模型没有任何问题$P(Y_i>0|T_i)$。事实上，如果 $T$ 是随机分配的，它将捕获由于处理而增加的支出概率。另外，上面的分解没有任何问题。根据总概率定律，这在数学上是正确的。
问题在于估算 COP 部分。 即使在随机分配下也会有偏差。在直观的层面上，认为某些单位只是因为没有得到处理而为零并不疯狂。处理会导致他们不为零。另一方面，有些单位从不为零。治疗可能会增加他们的结果，但即使没有它，他们也不会为零。现在，关键是要了解这两种类型的单位没有可比性。与那些没有接受治疗的零相比，那些从不为零的人具有较高的 $Y_0$ 。事实上，对于后者，$Y_0=0$。
知道这一点，如果我们删除零，我们将在处理组和对照组上保留从不为零。但是我们将从控制中删除那些通过处理从零变为非零的。这将使处理和控制不再具有可比性，因为控制将只包含那些从不为零且具有更高 $Y_0$ 的单元，而处理将包含两种类型的单位。
既然我们对问题有了直观的认识，那我们就从数学的角度来检查一下。来看一下，我们来分解一下治疗效果。在随机分配下，它等于均值差
$$ \begin{align*} &E[Y_i|T_i=1] - E[Y_i|T_i=0]\\ &=E[Y_i|Y_i>0, T_i=1]P(Y_i>0|T_i=1) - E[Y_i|Y_i>0, T_i=0]P(Y_i>0|T_i=0)\\ &=\underbrace{\{P(Y_i>0|T_i=1) - P(Y_i>0|T_i=0)\}}_{参与 \ 效果} * E[Y_i|Y_i>0, T_i=1] \\ &+\underbrace{\{E[Y_i|Y_i>0, T_i=1] - E[Y_i|Y_i>0, T_i=0]\}}_{COP \ Effect} * P(Y_i>0|T_i= 0) \end{align*} $$最后一个等式来自加减 $E[Y_i|Y_i>0, T_i=1]P(Y_i>0|T_i=0)$ 并重新排列项。这意味着平均值的差异由两部分组成：首先，它是结果 $y$ 为正的概率差异。这被称为参与效应，因为它衡量客户参与消费的可能性的增加。其次，这是以参与为条件的结果的差异，即 COP 效应。到现在为止还挺好。这没有任何问题。这是一个数学真理。当我们尝试分别估计每个部分时，问题就来了
如果我们进一步分析 COP 效应，这将变得更加明显。
$$ \begin{align*} E[Y_i|Y_i>0, T_i=1] - E[Y_i|Y_i>0, T_i=0]&=E[Y_{i1}|Y_{i1}>0]-E[Y_{i0}|Y_ {i0}>0] \\ &=\underbrace{E[Y_{i1} - Y_{i0}|Y_{i1}>0]}_{Causal \ Effect} + \underbrace{\{ E[Y_{i0}|Y_{i1}>0 ] - E[Y_{i0}|Y_{i0}>0] \}}_{选择 \ 偏差} \end{align*} $$在我们加减 $E[Y_{i0}|Y_{i1}>0]$ 之后，第二个等式出现。当我们分解 COP 效应时，我们首先得到对参与者亚群的因果效应。在我们的示例中，这将是对决定花钱的人的因果影响。其次，我们得到一个偏差项，它是那些在分配到治疗时决定参与的人的 $Y_0$ 差异 ($E[Y_{i0}|Y_{i1}>0]\\ )) 和那些即使没有治疗也参与的人 (\\(E[Y_{i0}|Y_{i0}>0]$)。在我们的例子中，这种偏差可能是负的，因为那些在分配到治疗时花费的人，如果他们没有接受治疗，可能会比那些即使没有接受治疗的人花费更少 $E[Y_{i0}|Y_ {i1}>0] < E[Y_{i0}|Y_{i0}>0]$。
现在，我知道 COP 偏差一开始是非常违反直觉的，所以我认为值得通过一个直观的例子。假设我们想估计营销活动如何增加人们在我们产品上的花费。这个营销活动是随机的，所以我们不需要担心混淆。在这个例子中，我们可以将客户分成两个部分。首先，有些人只有在看到营销活动时才会购买我们的产品。让我们称这些客户为节俭的客户。除非我们给他们额外的推动，否则他们不会花钱。还有一些客户即使没有活动也会花钱。该活动使他们花费更多，但无论如何他们已经花费了。让我们称他们为富有的客户。在图中，我用浅色和虚线显示了反事实。
为了估计活动的 ATE，因为我们有随机化，我们需要做的就是比较处理过的和未处理过的。但是，假设我们使用 COP 公式，其中我们将估计分解为两个模型，一个估计 $P(Y_i>0|T_i)$ 的参与模型和估计 $E[Y_i|Y_i >0]$。这将从分析中删除所有未花费的人。
当我们这样做时，治疗组和对照组不再具有可比性。正如我们所看到的，未经处理的客户现在只包括即使没有活动也会消费的客户群。还要注意，我们甚至可以在这里知道偏差的方向。它将是 $E[Y_{i0}|Y_{i1}>0] - E[Y_{i0}|Y_{i0}>0]$ 或 $E[Y_{i0}|\文本{节俭而富有}] - E[Y_{i0}|Rich]$。这显然是负面的，因为富人比节俭的顾客花费更多。因此，一旦我们只过滤了参与者群体，我们对 ATE 的估计就会有偏差，即使最初没有由于随机化而产生的偏差。我真诚地希望这能说服您像瘟疫一样避免 COP。我看到太多数据科学家在做这种单独的估算，却没有意识到它带来的问题。
为了结束选择偏差，我们需要始终提醒自己永远不要控制介于治疗和结果之间的变量，或者是结果和治疗的共同影响。 在图形语言中，以下是不良控制的样子：
关键思想¶
在本节中，我们查看了不是混杂因素的变量，以及我们是否应该将它们添加到我们的模型中以进行因果识别。 我们已经看到，即使不预测 $T$（不是混杂因素），也应该将作为结果 $y$ 的良好预测变量的变量添加到模型中。 这是因为预测 $Y$ 会降低其方差，并使我们在估计因果效应时更有可能看到具有统计意义的结果。 接下来，我们已经看到添加预测治疗而不是结果的变量是一个坏主意。 这些变量减少了治疗的可变性，使我们更难找到因果关系。 最后，我们研究了选择偏差。 当我们控制从治疗到结果的因果路径中的变量或作为治疗和结果的共同影响的变量时，就会出现偏差。
资料来源